IQuest-Q1：面向 Agentic CLI 系统的稀疏 MoE 基础模型
🧭 Agentic LLM 训练 · MoE 与多阶段后训练
IQuest Research
320B 稀疏 MoE 模型，通过多阶段训练和模型合并强化 CLI agent 编码能力
📌 工作参考价值（4 点）
- 稀疏 MoE 架构（320B 总参、15B 激活）在保持大模型容量的同时控制推理成本，适合需要实时响应的搜索/推荐 Agent 场景，可参考其专家路由设计，减少线上 latency。
- 多 scaffold + 多版本后训练策略（SFT + 领域 RL + MOPD 跨多种脚手架）能整合互补训练信号，在电商 Agent 中可借鉴：针对商品知识、会话策略、API 调用等不同子任务分别设计 scaffold 和奖励，再合并训练，提升整体鲁棒性。
- 模型合并技术（merge 不同 expert 和 checkpoint 并缓解参数冲突）可直接迁移到多任务推荐模型融合，例如把单品推荐、query 改写、对话策略等专家模型合并为统一模型，降低维护成本。
- 两阶段课程学习先通用后增加 coding 数据，可用于垂直领域 LLM 微调：先在大规模通用语料上稳定训练，再逐步增加电商/广告领域数据，避免灾难性遗忘。
Atria Dawn：智能体超级智能的黎明
🧭 智能体基础模型与可验证经验训练
Atria Team · Fudan University
推出 Atria Dawn Preview：基于可验证经验管道训练的智能体基础模型，16个基准中5个达最高分，并揭示人机协作转向项目级伙伴关系
📌 工作参考价值（4 点）
- 可验证经验管道：在电商/推荐 Agent 场景中，可以把模型输出接入可执行环境（线上沙箱、模拟器、规则引擎）或外部验证信号（转化、GMV、AB 实验结果），将工具调用、策略生成转化为可验证经验，减少不可执行动作和幻觉。
- 人机协作模式：让 Agent 频繁提出方法和实现修改，人类保留最终决策与反馈，适合电商 Agent 工作流（选品、出价、文案生成）中设置 human-in-the-loop 决策门，提升效率且保持风险可控。
- 任务记录分析：借鉴其 769 条任务记录的量化方法，用 Agent 日志评估哪些环节“无 AI 不可行”，识别高杠杆场景，指导资源分配。
- 适用边界：论文聚焦科研与工程 Agent，非直接推荐系统；但可复用“可执行验证 + 工具交互”的建模思路到生成式推荐或策略 Agent，强化外部奖励闭环。
LayerRoute: 通过 LoRA 微调实现输入条件自适应层跳过
🧭 Agent 推理加速 · 自适应层跳过 ★ 深度解读
Accenture
用 1.1M 参数教会 0.5B 模型按步型跳层：工具调用省 15.2% FLOPs，规划几乎不跳，质量不降反升。
📌 工作参考价值（4 点）
- Agent 推理系统加速：在工具调用占比高的场景（如电商客服中的查订单、查库存），可对 LLM 使用 LayerRoute 适配，保持规划能力同时大幅降低工具步驟计算量，直接提升吞吐。
- 不同请求类型动态深度分配：推荐/Agent 场景中，简单确定性请求与复杂推理请求可复用本方法——用极少量参数为每层配路由器 + LoRA，按输入类型动态跳过若干层，实现“按需深度”。
- 偏置初始化的工程技巧：对分层路由任务，有意识将中间层初始化为“跳过”状态（bias 负值），可打破对称，让梯度信号快速区分层的重要性，避免所有门控全开。
- 门正则化防止平凡解：任何可学习门控机制（如多分支动态路由、MoE 专家选择）都应加入类似正则项，否则模型倾向于保持所有通路开启，丧失动态选择能力。
SAGE：一种用于智能体 LLM 记忆高效演化的新颖性门控
🧭 Agent 记忆写端控制 · 新颖性检测 ★ 深度解读
Duke University
用 von Mises-Fisher 密度估计为智能体记忆演化构建轻量新颖性门控，仅将不确定案例交给 LLM 合并，显著降低写入成本。
📌 工作参考价值（4 点）
- 记忆写入的轻量决策层：电商 Agent 需要持续更新用户偏好、商品特征等长期记忆，可以借鉴 SAGE 的 vMF 密度估计门控，用闭式得分快速判定新信息是 ADD / NOOP，仅对边界案例调用 LLM，大幅降低在线写入成本。
- 自适应阈值跟踪存储密度：推荐系统的知识库（如用户兴趣表示）会动态增长，可采用基于 PCA 投影体积的密度代理自动调整阈值，避免固定阈值在稀疏/密集状态下过松或过严，该方法无需后端大模型即可实现。
- 模块化预过滤插件：SAGE 展示的二进制 NOOP 门可作为现有记忆框架（如 A-Mem、Mem0）或通用 RAG 写入路径的前置过滤器，只需标定一个阈值即可跳过 16–18% 的冗余 LLM 调用，且质量损失可忽略，适合在现有 Agent 架构中快速部署。
- 利用嵌入几何替代语义判断：在检索/推荐场景中，类似的思想可用于候选物品的新颖性检测（如是否已存在于某集合中），用角相似度聚合取代单个最近邻比较，提高对密集区域的区分能力。
通过自调节模拟规划实现高效智能体推理
🧭 自调节模拟规划 · Agent 推理优化 ★ 深度解读
Institute of Foundation Models (IFM) · Carnegie Mellon University
分解智能体为反应执行、模拟规划和自调节三系统，用更少推理token达到竞争性准确率。
📌 工作参考价值（4 点）
- 在Agent工作流中引入配置器模块：可借鉴SR²AM的配置器（System III）设计，对每一步状态评估是否需要调用规划模块（System II），避免不必要的深度推理。在电商对话或推荐Agent中，可根据用户问题复杂度、当前信息充分度动态决定是否进行多步推理，从而降低平均推理成本。
- 利用模拟规划提升长期交互任务的成功率：System II 通过世界模型（LLM本身）预测未来状态和动作序列来显式规划，可应用于需要多轮交互的推荐或搜索场景（如多步商品比较、旅行规划）。显式地模拟“提出动作 → 预测下一状态”可增加规划的可解释性和可纠错性。
- RL训练引导模型“深度规划而不频繁规划”：实验表明RL使规划深度增加22.8%而规划频率仅增2%，这意味着可以训练模型在需要时规划得更长远，而不是盲目增加推理次数。这个trick可直接用于效果/成本敏感的微调中，用RL奖励函数引导模型在有限token预算下提升任务完成率。
- 数据构造方法：从强模型轨迹重建结构化规划：v1.0通过注释器从已有链式思考中提取配置器决策和模拟规划内容，再用于监督微调，可作为一种高效的数据增强策略。如果业务中已有成功Agent的完整对话轨迹，可以用类似方法逆向构造结构化SFT数据，快速冷启具有自调节规划能力的小模型。